草庐IT

Python GTK+ 部件名称

全部标签

apache - Hadoop 文件系统复制 - 名称节点与数据节点

我需要将一个文件从我的文件系统复制到HDFS,下面是我在hdfs-site.xml中的配置。我应该如何使用“hadoopfs”命令将/home/text.txt中的文件复制到HDFS中?我应该将它复制到名称节点还是数据节点?dfs.replication1dfs.namenode.name.dirfile:/usr/local/hadoop_store/hdfs/namenodedfs.datanode.data.dirfile:/usr/local/hadoop_store/hdfs/datanode 最佳答案 您使用的是什么版本

hadoop - 二级名称节点备份名称节点的默认时间是多少?

二级名称节点备份名称节点的默认时间(定期检查)是多少?我可以编辑的参数是什么? 最佳答案 fs.checkpoint.period,setto1hourbydefault,specifiesthemaximumdelaybetweentwoconsecutivecheckpoints更多信息here.仅供引用……SNN不用于备份来自NN的数据。它用于合并NN上存在的fsImage和编辑文件。 关于hadoop-二级名称节点备份名称节点的默认时间是多少?,我们在StackOverflow上

java - Hadoop MapReduce 有条件地打印名称对

所以我想弄清楚这个MapReduce程序问题的逻辑,我不需要代码,只需要逻辑方面的帮助,因为我对MapReduce还是新手,我不太熟悉所有可能的解决方法一个问题。我尝试查找类似的程序,但没有成功。问题:给定一个名称列表(为简单起见,只考虑第一个字符)输入:A,BD,FP,EA,BA,CB,AE,P我需要使用MapReduce仅打印那些按字母顺序和相反顺序提到的对(按字母顺序)。所以输出将是:A,BE,P注意:打印的是E,P而不是P,E,因为它必须按字母顺序排列。有人能帮忙吗? 最佳答案 在Map-Reduce程序中,主要问题是:什么

hadoop - 我可以将备用名称节点添加到现有的 Hadoop 集群中吗(带有名称节点和辅助名称节点)

我有Hadoop2.7.2设置,其中Namenode和辅助Namenode节点与几个数据节点一起运行。namenode失败后(只是重新启动),我意识到Secondarynamenode并不像我想的那样是冗余的namenode。所以问题是,我可以使我的集群高可用并添加备用名称节点而不从名称节点中删除现有元数据吗? 最佳答案 您需要一个Zookeeper集群,但是可以,您可以将名称节点添加到enableHighAvailability 关于hadoop-我可以将备用名称节点添加到现有的Had

hadoop - HDFS 名称节点高可用性

我使用ambari启用了Namenode高可用性。我想在开始编码之前使用dfs.nameservices(名称服务ID)验证连接。是否有任何命令行或工具可以验证它? 最佳答案 您可以使用普通的HDFSCLI。hdfsdfs-lshdfs://nameservice/user这也应该和一样工作hdfsdfs-lshdfs:///user或者提供你的事件名称节点hdfsdfs-lshdfs://namenode-1:port/user如果你提供standbynamenode,它会说operationREADnotsupportedins

sql - 选择列中特定 ID 和列表名称价格高于同一列的行?

我有如下内容:ID-LIST_NAME-PRICE1-WASIA-1001-GASIA-1502-WSPAIN-1503-GMIAMI-1252-GSPAIN-1002-GMIAMI-1502-WMIAMI-125我希望输出为:2-WSPAIN-1502-GSPAIN-100因为W版比G版贵。如果它基本上可以在同一行显示两者,那就更好了:2-WSPAIN-150-GSPAIN-100不同的LIST_NAME可以有很多次ID,一个ID不必包含每个LIST_NAME(例如3没有WMIAMI) 最佳答案 这是一种使用自join和stuff

hadoop - 辅助名称节点是否也更新存储在 NFS 中的元数据?

我正在阅读“Hadoop:权威指南”。Hadoop2.x之前作者是这样解释容错的Withoutthenamenode,thefilesystemcannotbeused.Infact,ifthemachinerunningthenamenodewereobliterated,allthefilesonthefilesystemwouldbelostsincetherewouldbenowayofknowinghowtoreconstructthefilesfromtheblocksonthedatanodes.Forthisreason,itisimportanttomakethena

java - 名称节点不工作

我想启动名为HaLoop的hadoop修改,但我在namenode中遇到问题。它没有启动并给出以下错误org.apache.hadoop.hdfs.server.common.InconsistentFSStateException:Directory/app/haloop/tmp/nameisinaninconsistentstate:storagedirectorydoesnotexistorisnotaccessible.完整日志如下:2013-07-0514:04:38,735INFOorg.apache.hadoop.hdfs.server.namenode.NameNode

hadoop - 我们可以有任何命令来检查名称节点元数据吗

我是Hadoop的新手,有一个问题,例如,我们可以使用任何命令来检查表格格式的名称节点元数据吗?比如如果我想检查namenode在FsImage中保存数据的具体格式。如果我在调查中遗漏了一些特定的命令,请帮助我。感谢和问候 最佳答案 Hadoopofflineimageviewer会做的。语法:hdfsoiv-ipath/to/fsimage/file-odestination/file通过使用它,我们可以将名称节点日志转换为文本和xml文件。 关于hadoop-我们可以有任何命令来检查

hadoop - 作业跟踪器和名称节点不以 start-all.sh 开头

我正在尝试安装hadoop单节点,但它无法正常工作。当我执行start-all.shnamenode和jobtracker时,不要启动。您是否在我的文件中看到什么可能是错误的,所以我得到了这个结果?hadoopjps命令的结果:14878日元14823任务追踪器14605二级名称节点14456数据节点start-all.sh命令的结果:admin@vm-sgd10:/usr/local$start-all.shstartingnamenode,loggingto/usr/local/hadoop/libexec/../logs/hadoop-admin-namenode-vm-10.v